Thời Pháp thuộc, nơi đây là nghĩa địa dành cho người Pháp nên được gọi tên là Đất Thánh Tây. Tên chính thức của nghĩa trang trước tiên gọi là Jardin du Père d'Ormay, sau là Cimetière Massiges. Đây là nơi chôn cất nhiều lính tráng Pháp kể từ những năm đầu khi người Pháp chiếm được Sài Gòn, có những ngôi mộ chôn từ năm 1866. Một số nhân vật tên tuổi thời thuộc địa như Francis Garnier cũng được mai táng ở đây.[1]

Sang thời Việt Nam Cộng hòa nghĩa trang mang tên Nghĩa trang Mạc Đĩnh Chi. Tổng thống Ngô Đình Diệm và cố vấn Ngô Đình Nhu cũng có mộ phần tại đây.[1]

Năm 1983, Chủ tịch Ủy ban Nhân dân thành phố Hồ Chí Minh ra chỉ thị 17/CT-UBND yêu cầu dời nghĩa trang Mạc Đĩnh Chi khỏi thành phố để lấy đất xây Cung văn hóa Thiếu nhi.[2] Sau đó, khu vực này được giải toả và xây dựng thành công viên, đặt tên là Lê Văn Tám theo tên của một nhân vật huyền thoại không có thật thời Chiến tranh Đông Dương. Đây là công trình chào mừng 10 năm sự kiện 30 tháng 4 năm 1975 (1975-1985).